醫療AI代理人競逐安全上線 防護機制成落地關鍵
健康醫療

·幾秒前·康語柔
#醫療AI#OpenAI#數位健康#資安防護#人工智慧
醫療AI代理人競逐安全上線 防護機制成落地關鍵
商傳媒|康語柔/綜合外電報導
摘要

League, Inc. 與 OpenAI 相繼推出具備自主執行能力的醫療 AI 代理人,透過內建防護欄、去識別化隱私防護與真人自動轉接機制,加速醫院行政與病患照護流程。

醫療數位化正迎來具備自主執行能力的 AI Agent(人工智慧代理人,即能理解目標並自主操作軟體完成多步驟任務的系統)。科技與醫療軟體公司 League, Inc. 正式宣布,旗下建構於 Forge 平台的「AI Front Door」與「AI Care Companion」全面開放企業導入;與此同時,OpenAI 也將電腦操作技術推進至醫療體系,雙雙將技術焦點鎖定在高度受控的安全性機制。

根據外媒報導,醫療機構對於引進 AI 的最大顧慮始終在於病患隱私與臨床安全。League, Inc. 指出,新推出的兩款 AI 代理人上線部署時間最快僅需 12 週,背後仰賴超過 18 億次真實醫療互動數據作為優化基礎。其中,AI Front Door 主要面向保險支付方,處理保險權益導引、尋找照護資源與衛教;AI Care Companion 則協助醫療院所進行非上班時段的預約排程與症狀追蹤。

為解決醫療數據隱私標準(如 HIPAA 等法規對個人健康資訊的嚴格去識別化規範)要求,League, Inc. 採取多重防護機制。除了在模型訓練階段完全排除受保護的健康個資、改以合成數據與去識別化資料訓練外,更在回答傳遞給使用者前設置防護欄(guardrails),阻擋受限資訊。其安全轉接模型能以 99.72% 的準確率、僅 0.374 秒的延遲辨識出需要真人介入支援的訊息;旗下 League Trust Center 亦提供唯讀操作權限、嚴格會話隔離與來源可溯性。

在另一端,OpenAI 也擴大推動電腦操作型代理人進入美國醫療體系。該技術透過模擬點擊與鍵盤輸入,讓代理人直接操作尚未開放 API(應用程式介面)的既有臨床軟體,自動執行病患資料檢索與轉診處理。OpenAI 指出,經由醫師審查的 325 項臨床任務中,該系統獲得 99% 的安全性評級。包含 CVS Health、信諾(Cigna)以及 Abridge 和 Ambience 等機構均已著手導入。

在一項針對 150 名醫療主管的產業調查中,已有 61% 受訪單位導入代理型 AI,但僅 16% 實現大規模部署。主管們最重視的三大要件為內建醫療合規機制(49%)、自動轉接真人(48%)以及執行時期的操作權限控管(46%)。醫療 AI 的競爭焦點已從單純的模型參數量,轉向能否在嚴密的安全框架下穩定落地。

參考來源


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源